External Lexical Information for Multilingual Part-of-Speech Tagging

Morphosyntactic lexicons and word vector representations have both proven useful for improving the accuracy of statistical part-of-speech taggers. Here we compare the performances of four systems on datasets covering 16 languages, two of these systems being feature-based (MEMMs and CRFs) and two of them being neural-based (bi-LSTMs). We show that, on average, all four approaches perform similarly and reach state-of-the-art results. Yet better performances are obtained with our feature-based models on lexically richer datasets (e.g. for morphologically rich languages), whereas neural-based results are higher on datasets with less lexical variability (e.g. for English). These conclusions hold in particular for the MEMM models relying on our system MElt, which benefited from newly designed features. This shows that, under certain conditions, featurebased approaches enriched with morphosyntactic lexicons are competitive with respect to neural methods. Key-words: Part-of-Speech Tagging, Feature-based models, Neural models, MEMM, CRF, biLSTM, Multilingual Analysis Utilisation d’informations lexicales externes pour l’annotation multilingue en parties du discours Résumé : Les lexiques morphosyntaxiques et les représentations vectorielles des mots ont chacun montré leur utilité pour améliorer la précision d’étiqueteurs morphosyntaxiques statistiques. Nous comparons ici les performances de quatre systèmes sur des jeux de données couvrant 16 langues, deux de ces systèmes reposant sur des traits (MEMM et CRF) et deux autres sur des approches neuronales (bi-LSTM). Nous montrons qu’en moyenne les quatre approches obtiennent des performances similaires de niveau état-de-l’art. Néanmoins, nos modèles reposant sur des traits ont de meilleures performances sur les jeux de données lexicalement plus riches (par exemple sur des langues à morphologie riche), alors que les résultats obtenus par les approches neuronales sont meilleurs sur les jeux de données dont la variabilité lexicale est moindre (par exemple pour l’anglais). Ces conclusions sont vraies en particulier pour nos modèles de type MEMM faisant usage de notre système MElt, qui s’appuie sur un jeu de traits renouvelé. Ceci montre que, sous certaines conditions, les approches par traits enrichies par des lexiques morphosyntaxiques sont compétitifs par rapport aux approches neuronales. Mots-clés : Étiquetage en partie du discours, Modèles reposant sur des traits, Modèles neuronaux, MEMM, CRF, bi-LSTM, Analyse multilingue External Lexical Information for Multilingual Part-of-Speech Tagging 3